Sau Thế chiến II, Hồ Tông Nam giao tranh với Đảng Cộng sản Trung Hoa và trong giai đoạn đầu cuộc chiến, từng chiếm được Diên An, thủ đô phe Cộng sản ở Thiểm Tây. Tuy nhiên, Hồ không thể giành thêm thắng lợi nào đáng kể, vì trong 400.000 quân ông từng chỉ huy trong phần lớn cuộc chiến, một bộ phận lớn được chuyển sang các đạo quân khác, chỉ để lại 250.000 quân cho Hồ chỉ huy. Có tin đồn rằng những đối thủ của Hồ trong Quốc dân đảng xung quanh Tưởng Giới Thạch như Trần Thành ghen tị với ông và thuyết phục Tưởng cắt bớt binh quyền của Hồ. Với cái chết của Đới Lạp, không còn ai bảo vệ Hồ Tông Nam trước mặt Tưởng, và vì bản thân Hồ cũng đang bận đánh nhau với quân Cộng sản ở mảnh đất xa xôi hẻo lánh, ông không thể quay về gặp Tưởng để tự biện hộ trong cuộc tranh chấp quyền lực trong nội bộ Quốc dân đảng. Dù Hồ Tông Nam là một tư lệnh có tài, ông vẫn không phải là đối thủ của tướng Cộng sản Bành Đức Hoài, và với ưu thế tuyệt đối về quân số và vũ khí, 1/4 triệu quân của Hồ không những không đánh bại được 20.000 quân tinh nhuệ của Bành Đức Hoài, mà sau thắng lợi bước đầu còn liên tiếp thua trận. Thất bại của ông to lớn đến nỗi vào tháng 3 năm 1950, khi Hồ rút về Đài Loan, ông không còn bất cứ binh lực nào trong tay.

Tuy nhiên, có người cho rằng thất bại của Hồ có lý do chính trị nhiều hơn là quân sự. Quan trọng hơn, sự tự mãn, tham vọng và dã tâm chính trị của Tưởng Giới Thạch với việc bám lấy đất đai đã chiếm được kiểu Hitler cũng có vai trò quan trọng dẫn đến thái bại của quân Quốc dân đảng. Địa hình Tây Bắc Trung Hoa hiểm trở có lợi cho quân Cộng sản và chiến thuật du kích của họ, không thích hợp cho các lực lượng Quốc dân cơ giới hóa, và phải cần đến một lực lượng lớn quân đội để đóng giữ những vùng tạm chiếm. Trong thắng lợi bước đầu của Hồ Tông Nam, ông chiếm được căn cứ địa cộng sản ở Sơn Tây và buộc quân cộng sản phải di tản sang bờ đông sông Hoàng Hà với tổn thất 20.000 người trên tổng số 1/4 triệu người, nhưng để bảo vệ vùng đất rộng lớn vừa chiếm được, quân Quốc dân bị dàn mỏng hết sức nguy hiểm. Ví dụ, cần 80.000 quân chiếm đóng Diên An, thủ đô cộng sản tại Thiểm Tây, nhưng Tưởng Giới Thạch bỏ qua vấn đề này vì lý do chính trị, và kết quả là tham vọng chính trị che lấp thực tế chiến trường. Hồ Tông Nam được kỵ binh Hồi giáo của Mã hệ hỗ trợ khi chiếm Diên An.[2]

Một nguyên do khác nữa là ý đồ bám đất của Tưởng Giới Thạch: những vùng đất này quá rộng lớn và hiểm trở nên một lực lượng cơ giới hóa nhỏ có thể đóng giữ, do đó phải đồn trú một lực lượng lớn ở những vùng đất hẻo lánh này. Những lý do cần một lực lượng lớn là vì chủ lực Cộng sản vẫn chưa bị tổn hại trong các chiến dịch của quân Quốc dân và vẫn có thể tấn công Quân đội Quốc dân, và sự tự tin thái quá của Tưởng Giới Thạch khiến ông ta tin rằng 20.000 quân chủ lực cộng sản đánh du kích trong căn cứ địa cũ của họ không phải mối đe dọa, nhưng ông ta đã sai lầm. Để giành được thắng lợi theo ý Tưởng, cần một lực lượng lớn hơn 400.000 quân, và 230.000 quân dưới quyền Hồ là không đủ.

Tạp chí TIME khẳng định Hồ hay đấm ngực như Tarzan mỗi khi bối rối hay giận dữ. Tháng 3 năm 1948, tại Nghi Xuyên, Bành Đức Hoài chỉ huy quân Cộng sản mở cuộc tấn công bất ngờ vào quân Hồ Tông Nam, khiến Hồ tổn thất 20.000 người, và tiến thẳng vào Nam Thiểm Tây với 60.000 quân để vào Tứ Xuyên. Hồ yêu cầu cứu viện từ viên tướng Hồi giáo Mã Hồng Quỳ, ông này gửi đến 2 sư đoàn kỵ binh. Họ đánh bại quân Cộng sản tại Bảo Kê, giết chết 20.000 quân Cộng sản, và đẩy lui họ về Cam Túc.[3]

Năm 1949, toàn bộ hệ thống phòng thủ Quốc dân đảng tan rã từng mạng. Hồ Tông Nam phớt lờ mệnh lệnh của Tổng thống Lý Tông Nhân, khiến Mã Hồng Quỳ giận dự. Hồ cũng không giữ lừi với Mã Hồng Quỳ và các tướng họ Mã khác. Mã Hồng Quỳ gửi điện tín cho Lý Tông Nhân xin từ bỏ mọi chức vụ, rồi trốn sang Đài Loan, và người em họ Ma Hongbin thay chức.[4]